<汇港通讯> 内地「大模型六小虎」之一的人工智能(AI)初创智谱在微博发文指,已与华为针对 AI场景推出的异构计算架构 CANN 完成深度适配。
智谱指出,通过 CANN(Compute Architecture for Neural Network)工具链,公司能够实现智谱GLM 端侧模型高效部署至基於华为麒麟芯片的端侧设备,支持在个人电脑场景中快速落地。
该公司称,本次合作标志国产大模型与计算架构在端云协同方向实现关键突破,国产 AI 生态正加速迈入深度融合阶段。
就实现途径,智谱表示,公司在云侧升腾环境中开发 Ascend C 自定义算子,完成模型微调与量化,并借助 CANN 工具链实现该模型的一步直转,算子代码直接复用。这种创新模式大幅降低端云模型、算子适配工作量,也验证了 CANN 体系的开放性与研发效率。
华为早前宣布将全面开源 CANN。此举正值其进一步加速推广其升腾芯片生态系统,以打造一个能够媲美辉达(Nvidia)的开发生态。华为表示,CANN 的全面开源将支持用户自主的深度挖潜和自定义开发,加速开发者创新步伐,让升腾更好用、更易用。
在人工智能基础软硬件平台的搭建中,CANN 作为硬件使能,其作用是连接上层的 AI 框架与底层的华为升腾 AI 处理器,这是充份释放处理器极致性能的关键。 (BC)
#华为
新闻来源 (不包括新闻图片): 汇港资讯